WeVisCut:从脚本到长视频的单一 Agent 编辑系统
🧭 长视频编辑 Agent 策略学习与蒸馏
Xidian University · WeChat Vision, Tencent Inc.
用离线反推编辑决策训练9B策略,在统一工具环境中逼近Claude Opus 5且token减少33倍
📌 工作参考价值(3 点)
- 从成品反推决策的 inversion + verified replay 管线值得借鉴:在推荐/广告的多步决策场景(如会话式推荐、创意生成)中,可以用线上成功案例反推隐式决策链,并通过回放验证构造高质量监督数据,训练小模型逼近大模型。
- 状态化 Agent harness(共享生产状态、工具反馈驱动决策与修复)可迁移到电商 Agent 架构,统一维护商品/素材/用户状态,支持多轮工具调用的一致性和自我纠错。
- 紧凑策略蒸馏思路:9B 模型达到大模型相当效果且 token 减少 33 倍,适合成本敏感的实时推荐/广告文案生成;通过任务特化监督而非通用多阶段工作流,显著降低推理成本。
MotionCoach:构建多模态引导实现视频专业动作编辑
🧭 Agent 多模态引导视频编辑 ★ 深度解读
Peking University · Alibaba Token Hub, Alibaba Group · University of Science and Technology of China · Zhejiang University
训练多模态Agent自动搜索、验证并裁剪动作参考,输出grounded prompt与reference clip,显著提升冻结视频编辑模型的专业动作编辑能力。
📌 工作参考价值(4 点)
- 借鉴“冻结生成模型 + 轻量 Agent 策略”的分离架构:在商品视频生成、广告创意生成中,不重新训练底模,训练一个 VLM Agent 来构造可靠的参考素材和 grounded prompt(包含关键卖点、时间结构、负向约束),可低成本适配垂直类目。
- 借鉴 self-verification 与 tool use:类似 RAG 中的检索后验证,在电商视频编辑中 Agent 可以搜索候选商品素材、检查是否展示正确商品和动作,自验证后裁剪出最有用的片段,避免错误参考导致生成偏差;该逻辑可用于广告素材自动剪辑和生成。
- 借鉴 RL 奖励设计:用三个奖励(prompt 质量、下游生成结果、格式)训练 Agent,尤其以冻结编辑器实际生成的视频作为奖励信号;在推荐/搜索中,可训练 Agent 生成 query 解释或推荐理由,奖励包括文本质量和最终转化/点击模型评分,形成闭环。
- 数据流水线:teacher 模型生成轨迹 + VLM/程序化检查 + 人工抽检,快速构建 SFT/RL 数据,适合缺少标注的垂直领域。
极光:使用工具增强代理的统一视频编辑
🧭 视频编辑 · Agent 工具增强 ★ 深度解读
University of Rochester · MIT-IBM Watson AI Lab · NVIDIA
提出Aurora框架,用工具增强的VLM代理解决视频编辑中用户请求欠指定问题,将缺失条件补全后送入统一视频扩散模型。
📌 工作参考价值(4 点)
- Agent 条件构建范式:将用户模糊请求(缺少参考图、掩码、明确指令)委托给工具增强的VLM代理,生成完整的条件元组(指令、任务类型、搜索词、掩码描述),下游生成模型只消费标准条件,该解耦模式可直接用于电商商品图生成、广告视频编辑,降低人工补全成本。
- 偏好对齐解决边界决策:使用DPO精细解决代理的边界案例(如误触发搜索、模糊掩码、约束丢失等),在推荐或Agent决策中可借鉴此方法,通过构建冲突对提升模型在相似但错误路径上的区分能力。
- 工具增强与统一条件接口:代理可调用网络搜索和分割工具,输出统一格式的参考图与掩码,屏蔽不同工具的内部差异,适合在Agent工作流中集成异构API,降低下游模型对工具强耦合。
- 设计评测维度:提出AgentEdit-Bench专门测量代理补全缺失条件的能力,评估指标包含实体匹配和身份保持,可启发我们为客服、推荐等场景构建需要主动补全信息的评测集。